Dari 1952 ke 1956, Arafat menuntut di Universiti Kaherah dan lulus dengan ijazah dalam kejureteraan awam. Semasa di universiti, beliau telah menganggotai gerakan Ikhwan al Muslimin (Muslim Brotherhood) dan juga menjadi presiden Persatuan Pelajar-Pelajar Palestin. Dikerahkan ke dalam tentera Mesir, Arafat telah mengambil bahagian dalam Perang Suez 1956. Setelahnya, beliau berpindah ke Kuwait untuk bekerja sebagai seorang jurutera. Pada akhir tahun 50-an, Arafat bersama beberapa orang rakannya mengasaskan kumpulan "Fatah", sebuah gerakan nasionalis Palestin yang kemudiannya muncul sebagai sebuah cabang terpenting dalam PLO. PLO ditubuhkan pada 1964, dan mendapat sokongan kuat daripada negara-negara seperti Syria, Lubnan, dan Mesir. PLO berhasrat untuk menjadi wakil utama rakyat Palestin (penduduk Arab yang tinggal di daerah yang dikenali sebagai Palestin sebelum tubuhnya negara Israel pada tahun 1948) dalam memeperjuangkan hak-hak mereka.